Forecasting Future Behavior as a Learning Task
将未来行为预测作为学习任务
🧭 行为预测 · 推理模型可解释性
Bar-Ilan University · Constellation · Allen Institute for AI · UK AI Security Institute
训练Behavior Forecaster从推理轨迹直接预测大推理模型的行为，比强LLM更准且成本更低。
📌 工作参考价值（4 点）
- 若使用大推理模型（如DeepSeek-R1）做搜索排序、Agent决策，可通过训练小模型预测其输出一致性，低成本做线上预检。
- 自动构建训练数据的方法：多次查询LRM获取轨迹与行为标签，无需人工标注，适合构建自定义监控模型。
- 预测LRM对输入扰动的敏感性，可用于评估输入中哪些特征对推荐结果影响大，辅助特征工程。
- 推理轨迹包含比纯文本阅读更丰富的信息，建议在LLM诊断时利用轨迹特征训练下游预测模型，而非依赖提示工程。